1) 첫 번째 가로 행(5칸): 빨강 \(a\), 파랑 \(b\), 노랑 \(c\) 개수라 하면 \(a > b, c \le 2, a+b+c=5\)를 만족한다. 같은 것이 있는 순열의 수는 \(\frac{5!}{a! b! c!}\)이다.

• \(c=0\): \((5,0,0), (4,1,0), (3,2,0) \implies 1 + 5 + 10 = 16\)

• \(c=1\): \((4,0,1), (3,1,1) \implies 5 + 20 = 25\)

• \(c=2\): \((3,0,2), (2,1,2) \implies 10 + 30 = 40\)

따라서 첫 번째 행을 칠하는 경우의 수는 \(16 + 25 + 40 = 81\)이다.

2) 두 번째 가로 행(6칸): 빨강 \(d\), 파랑 \(e\), 노랑 \(f\) 개수라 하면 \(d > e, f \le 2, d+e+f=6\)을 만족한다. 순열의 수는 \(\frac{6!}{d! e! f!}\)이다.

• \(f=0\): \((6,0,0), (5,1,0), (4,2,0) \implies 1 + 6 + 15 = 22\)

• \(f=1\): \((5,0,1), (4,1,1), (3,2,1) \implies 6 + 30 + 60 = 96\)

• \(f=2\): \((4,0,2), (3,1,2) \implies 15 + 60 = 75\)

따라서 두 번째 행을 칠하는 경우의 수는 \(22 + 96 + 75 = 193\)이다.

총 경우의 수는 \(81 \times 193 = \mathbf{15633}\)이다. 답: \(15633\)

각 세로 열마다 세 가지 색이 적어도 한 번씩 나타나야 하므로, 각 세로 열에서 빨간색, 파란색, 노란색을 하나씩 미리 제외하고 생각하면 된다.

제외된 칸의 넓이는 각 색마다 \(n\)씩이므로, 남은 \(10n - 3n = 7n\)개의 칸을 세 가지 색에 배분하는 음이 아닌 세 정수 순서쌍의 개수를 구하는 것과 같다.

따라서 구하는 순서쌍의 개수는 \(3\)개의 문자에서 \(7n\)개를 택하는 중복조합의 수이다:

\[f(5) = \frac{37 \times 36}{2} = 666, \quad f(7) = \frac{51 \times 50}{2} = 1275\]

따라서 \(f(5) + f(7) = 666 + 1275 = \mathbf{1941}\)이다. 답: \(1941\)

점 \(P\)의 좌표를 \((a, b)\)라 두면 점 \(Q\)의 좌표는 \((b, a)\)이고, \(\frac{a^2}{3} + \frac{b^2}{2} = 1\)이 성립한다.

\[\vec{AP} \cdot \vec{BQ} = (a+1, b) \cdot (b, a+1) = 2b(a+1) = \pm 2\sqrt{2}(a+1)\sqrt{1 - \frac{a^2}{3}}\]

닫힌구간 \([-\sqrt{3}, \sqrt{3}]\)에서 함수 \(f(a) = 2\sqrt{2}(a+1)\sqrt{1 - \frac{a^2}{3}}\)의 도함수를 구하면

\[f'(a) = -\frac{2\sqrt{2}(2a+3)(a-1)}{\sqrt{3(3-a^2)}}\]

\(f'(a)=0\)으로부터 \(a = -\frac{3}{2}, 1\)을 얻는다. 함수의 증감표를 통해

• \(f(a)\)의 최댓값은 \(a=1\)에서 \(f(1) = 2\sqrt{2}(2)\sqrt{\frac{2}{3}} = \frac{8\sqrt{3}}{3}\)이다.

• \(-f(a)\)의 최댓값은 \(a=-\frac{3}{2}\)에서 \(-f(-\frac{3}{2}) = \frac{\sqrt{2}}{2}\)이다.

따라서 \(\vec{AP} \cdot \vec{BQ}\)의 최댓값은 \(\mathbf{\frac{8\sqrt{3}}{3}}\)이다. 답: \(\frac{8\sqrt{3}}{3}\)

\(0 < \theta < \frac{\pi}{2}\)일 때, 선분 \(AB\)와 \(EH\)의 교점을 \(M\), 선분 \(AB\)와 \(EF\)의 교점을 \(N\)이라 하면 공통부분의 넓이 \(S(\theta)\)는 \(\triangle OMN\) 넓이의 \(8\)배이다.

선분 \(AN\)과 \(EO\)의 교점을 \(P\)라 두면, \(\angle PEN = \angle OAP = \frac{\pi}{4}\)이고 \(\angle EPN = \angle APO\)이므로 \(\angle PNE = \angle AOP = \theta\)이다.

\(\pi = \angle PNE + \angle PNO + \angle ONF = \theta + 2\angle PNO\)로부터 \(\angle PNO = \frac{\pi}{2} - \frac{\theta}{2}\)이고, \(\angle MON = \frac{\pi}{4}\)이므로 \(\angle OMN = \frac{\pi}{4} + \frac{\theta}{2}\)이다.

점 \(O\)에서 선분 \(MN\)에 내린 수선의 발을 \(Q\)라 하면 \(\overline{OQ} = \frac{1}{2}\)이므로

\[S(\theta) = 8 \times \frac{1}{2} \times \left( \frac{1}{2}\cot\left(\frac{\pi}{4}+\frac{\theta}{2}\right) + \frac{1}{2}\cot\left(\frac{\pi}{2}-\frac{\theta}{2}\right) \right) \times \frac{1}{2} = \frac{1 - \tan(\theta/2)}{1 + \tan(\theta/2)} + \tan\frac{\theta}{2}\]

도함수를 구하면 \(S'(\theta) = -\frac{\sec^2(\theta/2)}{(1+\tan(\theta/2))^2} + \frac{1}{2}\sec^2\frac{\theta}{2}\)이다.

\(\theta = \frac{\pi}{3}\)를 대입하면 \(\tan\frac{\pi}{6} = \frac{1}{\sqrt{3}}, \sec^2\frac{\pi}{6} = \frac{4}{3}\)이므로 \(S'\left(\frac{\pi}{3}\right) = \mathbf{2\sqrt{3} - \frac{10}{3}}\)이다.

답: \(2\sqrt{3} - \frac{10}{3}\)